Epistemología y ontología en Ciencia: el reto de la Inteligencia Artificial / Epistemology and ontology in Science: the challenge of Artificial Intelligence

La brecha entre predictibilidad y comprensibilidad amenaza todo el proyecto científico porque los modelos matemáticos de los procesos, alimentados por enormes cantidades de datos de origen muy diverso, proporcionan resultados excepcionalmente precisos pero, al mismo tiempo, ocultan la explicación de los procesos. El conocimiento de “qué sabemos” de la ontología es tan relevante en ciencia como el de “cómo sabemos” y el de “cuánto sabemos” de la epistemología. La inteligencia artificial (IA) implica la comprensión científica de los mecanismos que subyacen al pensamiento y la conducta inteligente, así como su encarnación en máquinas capacitadas por sus creadores de razonar en un sentido convencional. Su formulación “débil” se refiere al empleo de programas informáticos complejos, diseñados con el fin de complementar o auxiliar el razonamiento humano para resolver o completar complejos problemas de cálculo, de mantenimiento de sistemas, de reconocimiento de todo tipo de imágenes, de diseño, de análisis de patrones de datos, etc., muchos de los cuales serían prácticamente inabordables mediante procedimientos convencionales; pero todo ello sin incluir capacidades sentientes o éticas humanas, que sí serían objeto de una – por ahora – inexistente IA “fuerte”, aquella que igualaría o incluso excedería la inteligencia sentiente humana. La vulgarización de la IA “generativa”, desarrollada para crear contenido – texto, imágenes, música o vídeos, entre otras muchas áreas – a partir de información previa, está contribuyendo a consolidar popularmente la idea errónea de que la actual IA excede el razonamiento a nivel humano y exacerba el riesgo de transmisión de información falsa y estereotipos negativos a las personas. Los modelos de lenguaje de la inteligencia artificial no funcionan emulando un cerebro biológico sino que se fundamentan en la búsqueda de patrones lógicos a partir de grandes bases de datos procedentes de fuentes diversas, que no siempre están actualizadas ni depuradas de falsedades, de errores ni de sesgos conceptuales o factuales, tanto involuntarios como interesados. Y la IA empleada en ciencia no es ajena a estas limitaciones y sesgos. Una cuestión particularmente sensible es la posibilidad de utilizar la IA generativa para redactar o incluso inventarse artículos científicos que llegan a pasar desapercibidos por los revisores por pares de las revistas científicas más prestigiosas del mundo, apuntando a un problema más aún profundo: los revisores por pares de las revistas científicas a menudo no tienen tiempo para revisar los manuscritos a fondo en busca de señales de alerta y, en muchos casos, además carecen de recursos informáticos adecuados y formación especializada.(AU)

The gap between predictability and comprehensibility threatens the entire scientific project because mathematical models of processes, fed by enormous amounts of data of very diverse origin, provide exceptionally precise results but, at the same time, hide the explanation of the processes. The knowledge of “what we know” of ontology is as relevant in science as that of “how we know” and “how much we know” of epistemology. Artificial intelligence (AI) involves the scientific understanding of the mechanisms underlying intelligent thought and behavior, as well as their embodiment in machines trained by their creators to reason in a conventional sense. Its “weak” formulation refers to the use of complex computer programs, designed with the purpose of complementing or assisting human reasoning to solve or complete complex problems of calculation, system maintenance, recognition of all types of images, design, analysis of data patterns, etc., many of which would be practically unapproachable using conventional procedures; but all this without including human sentient or ethical capabilities, which would be the subject of a – at the moment – non-existent “strong” AI, that would equal or even exceed human sentient intelligence. The popularization of “generative” AI, developed to create content – text, images, music or videos, among many other areas – from previous information, is helping to popularly consolidate the erroneous idea that current AI exceeds reasoning human level and exacerbates the risk of transmitting false information and negative stereotypes to people. The language models of artificial intelligence do not work by emulating a biological brain but are based on the search for logical patterns from large databases from diverse sources, which are not always updated or purged of falsehoods, errors or errors. conceptual or factual biases, both involuntary and self-serving. And the AI used in science is no stranger to these limitations and biases. A particularly sensitive issue is the possibility of using generative AI to write or even invent scientific articles that go unnoticed by the peer reviewers of the most prestigious scientific journals in the world, pointing to an even deeper problem: peer reviewers. Reviewers often do not have the time to review manuscripts thoroughly for red flags and, in many cases, they also lack adequate computing resources and specialized training.(AU)

Epistemología de la medición / Epistemology of measurement

El texto de este artículo se corresponde, in extenso, con la ponencia que fue expuesta bajo el mismo título por el autor el día 17 de febrero de 2022, en la mesa redonda “Medición y ciencia. Aspectos epistémicos y repercusiones metodológicas y regulatorias en investigación clínica”, dentro del ciclo “Epistemología, metodología y regulación de la medición científica en el ámbito clínico”, celebrado en la Real Academia Nacional de Farmacia los días 17 y 22 de febrero de 2022.Medir designa el proceso por el que se interacciona con un sistema con el objetivo de representar alguno de sus aspectos mediante términos abstractos o que tienen un carácter meramente ideal, estableciendo referencias comunes que permitan compararse con un patrón prefijado y acotado por márgenes de incertidumbre predeterminados. Obviamente, la medición es un integrante esencial de la ciencia; uno de sus sellos distintivos, fuente primaria de conocimiento y el imprescindible nexo de unión entre la teoría y la experimentación, permitiendo que se retroalimenten recíprocamente y mejoren continuamente. En el estudio científico de cualquier fenómeno, la intervención del observador y el propio hecho de la observación perturban al fenómeno estudiado. Por ello, siempre es preciso tomar en consideración el grado de perturbación que produce, algo que en investigación clínica puede ser particularmente complejo por la multiplicidad y variabilidad de las manifestaciones humanas. (AU)

Measuring designates the process by which a system is interacted with in order to represent some of its aspects by means of abstract terms or those that have a merely ideal character, establishing common references that allow comparison with a predetermined pattern and bounded by predetermined margins of uncertainty. Obviously, measurement is an essential component of science; one of its hallmarks, a primary source of knowledge and the essential link between theory and experimentation, allowing them to feed off each other and continuously improve. In the scientific study of any phenomenon, the intervention of the observer and the very fact of the observation disturb the phenomenon studied. For this reason, it is always necessary to take into consideration the degree of disturbance it produces, something that in clinical research can be particularly complex due to the multiplicity and variability of human manifestations. The complexity of the observed subject (human being), given his condition as a thinking, emotional, moral and social entity, multiplies the uncertainty of his responses, both individual and collective, and extreme methodological and ethical demands of the scientist; In addition, the response of each individual to a clinical intervention incorporates multiple other factors unrelated to the effects objectively attributable to the intervention, but which must be duly weighed. For all these reasons, in order to scientifically measure the effect of an intervention in a clinical trial, it is essential to previously define and justify the minimum magnitude of the change that can give rise to an effect that is clinically relevant for the patient and for the observer. (AU)

Epistemología de la medición / Epistemology of measurement

Medir designa el proceso por el que se interacciona con un sistema con el objetivo de representar alguno de sus aspectos mediante términos abstractos o que tienen un carácter meramente ideal, estableciendo referencias comunes que permitan compararse con un patrón prefijado y acotado por márgenes de incertidumbre predeterminados. Obviamente, la medición es un integrante esencial de la ciencia; uno de sus sellos distintivos, fuente primaria de conocimiento y el imprescindible nexo de unión entre la teoría y la experimentación, permitiendo que se retroalimenten recíprocamente y mejoren continuamente. En el estudio científico de cualquier fenómeno, la intervención del observador y el propio hecho de la observación perturban al fenómeno estudiado. Por ello, siempre es preciso tomar en consideración el grado de perturbación que produce, algo que en investigación clínica puede ser particularmente complejo por la multiplicidad y variabilidad de las manifestaciones humanas. La complejidad del sujeto observado (ser humano), dada su condición de ente pensante, emocional, moral y social, multiplica la incertidumbre de sus respuestas tanto individuales como colectivas, extremando las exigencias metodológicas y éticas del científico; además, la respuesta de cada individuo a una intervención clínica incorpora otros múltiples factores no relacionados con los efectos objetivamente achacables a la intervención, pero que deben ser debidamente ponderados. Por todo ello, para poder medir científicamente el efecto de una intervención en un ensayo clínico, es fundamental definir y justificar previamente la magnitud mínima del cambio que puede dar lugar a un efecto que sea clínicamente relevante para el paciente y para el observador.(AU)

Measuring designates the process by which a system is interacted with in order to represent some of its aspects by means of abstract terms or those that have a merely ideal character, establishing common references that allow comparison with a predetermined pattern and bounded by predetermined margins of uncertainty. Obviously, measurement is an essential component of science; one of its hallmarks, a primary source of knowledge and the essential link between theory and experimentation, allowing them to feed off each other and continuously improve. In the scientific study of any phenomenon, the intervention of the observer and the very fact of the observation disturb the phenomenon studied. For this reason, it is always necessary to take into consideration the degree of disturbance it produces, something that in clinical research can be particularly complex due to the multiplicity and variability of human manifestations. The complexity of the observed subject (human being), given his condition as a thinking, emotional, moral and social entity, multiplies the uncertainty of his responses, both individual and collective, and extreme methodological and ethical demands of the scientist; In addition, the response of each individual to a clinical intervention incorporates multiple other factors unrelated to the effects objectively attributable to the intervention, but which must be duly weighed. For all these reasons, in order to scientifically measure the effect of an intervention in a clinical trial, it is essential to previously define and justify the minimum magnitude of the change that can give rise to an effect that is clinically relevant for the patient and for the observer.(AU)

Metaciencia: reflexiones sobre la reproducibilidad de la investigación en farmacología / Metascience: reflections on the reproducibility of research in pharmacology

No disponible

Algunas reflexiones sobre la ciencia / Some thoughts on science

No disponible